HoloRec: Holistic Encoding and Interleaved Reasoning for Generative Recommendation
HoloRec:整体编码与交错推理的生成式推荐
🧭 生成式推荐 · 层级语义编码与内生推理 ★ 深度解读
Institute of Information Engineering, Chinese Academy of Sciences · School of Artificial Intelligence, Beijing Normal University · JD.com
提出多粒度嵌套残差量化构建层级语义编码,通过门控交错推理实现内生链式思维,统一表示、推理与生成
📌 工作参考价值(4 点)
- 多粒度语义ID构建:对item embedding按维度切片进行嵌套残差量化,生成粗到细的离散编码矩阵,可用于电商召回-粗排-精排的级联体系,在不同阶段使用不同粒度,减少计算开销同时保持语义对齐。
- 免费午餐的多粒度辅助训练:训练时添加粗粒度预测头(共享backbone),用粗粒度语义ID作为辅助标签,推理时去掉该头不增开销,可直接提升召回多样性(粗粒度标签帮助模型覆盖更多候选),适合电商长尾商品推荐。
- 内生交错推理机制:在自回归生成过程中,每一步先预测粗粒度语义分布,经门控注入到细粒度解码,隐式实现Chain-of-Thought而无需外部推理数据。可迁移到对话式推荐Agent中,在生成推荐列表时逐步细化用户意图,提升Top-1准确率。
- 稀疏场景增益显著:整体编码和交错推理对稀疏数据(如Beauty数据集相对TIGER Hit@5提升14.2%)效果突出,可用于解决电商中冷启动用户或新商品推荐问题。